ประสิทธิ์ กาญจนวัฒน์ เริ่มชีวิตการทำงาน โดยการเป็นครูและครูใหญ่โรง เรียนอี้งฮุ้น (หวงหวน) ต่อมาได้เป็นข้าราชการกระทรวงเศรษฐการ เป็นเจ้าของสำนักงาน ทนายความมนูกิจ[2]

นอกจากนี้ นายประสิทธิ์ยังมีตำแหน่งสำคัญๆในธนาคารกรุงเทพ จำกัด ได้แก่ กรรมการธนาคารกรุงเทพ จำกัด (ปี พ.ศ. 2496) กรรมการบริหารธนาคารกรุงเทพ จำกัด (ปี พ.ศ. 2511) รองประธานกรรมการและกรรมการบริหารธนาคารกรุงเทพ จำกัด (ปี พ.ศ. 2519) และประธานกรรมการธนาคารกรุงเทพ จำกัด (ปี พ.ศ. 2527)

ขณะเดียวกัน นายประสิทธิ์ยังเป็นนักเขียน นักหนังสือพิมพ์ ที่มีผลงานมากมาย ที่สำคัญได้แก่ เป็นผู้แปลเรียบเรียงหนังสือชื่อ เจียง ไค เช็ค ประมุขจีนใหม่ แปลรัฐธรรมนูญแห่งสหภาพโซเวียต และเขียนบทความเกี่ยวกับการเมืองลงหนังสือพิมพ์การเมืองอีกหลายเรื่อง รวมทั้งเป็นเจ้าของและบรรณาธิการหนังสือพิมพ์การเมืองชื่อ "การเมือง" อีกด้วย